Dư Xá Thượng xưa là trung tâm của huyện Hoài An, phủ Ứng Thiên, trấn Sơn Nam Hạ. Ngày nay làng có 329 mẫu đất tự nhiên, 309 mẫu đất canh tác, 220 mẫu thở cư, dân số khoảng 3000 người. Làng trải dài theo lộ tỉnh 22, bám sát bên bờ đông sông Đáy chừng hai cây số. Phía tây bắc và bắc của làng giáp thôn Đình Xuyên và Nội Xá của xã Vạn Thái; phía đông nam giáp làng Dư Xá Hạ và xã Hòa Phú. Từ duyên cách địa lý như vậy, nên từ xa xưa Dư Xá Thượng được coi là trung tâm của huyện Hoài An và đền Bách Linh được xây dựng ở đây với vai trò là đền Hàng Tổng.[2]

Thế kỷ X, Khi đất nước rơi vào loạn 12 sứ quân, Đinh Bộ Lĩnh là người có chí lớn đã thu nạp quân sĩ các nơi để tiến hành dẹp loạn. Đinh Bộ Lĩnh được người dân Ứng Hòa và Mỹ Đức ủng hộ. Vùng này hiện có rất nhiều đền thờ phụng các tướng nhà Đinh như Bạch Tượng, Bạch Địa, Cao Quang Vương, Đặng Đống Thính, Đặng Chiêu Pháp, Hà Khôi, Hồ Thông, Nguyễn Đức Chính, Phạm Tích, Phạm Thánh, Phạm Thành và 5 anh em họ Phí ở làng Động Phí. Có hơn 30 di tích về thời Đinh được thống kê nằm ở vùng này, đó là các di tích: đền Tổ nghề may, đình Trạch Xá, đền Đinh Tiên Hoàng Đế, đền Phù Lưu, đền Không Thần, đình Quảng Nguyên, đình Thanh Dương, đình Động Phí, đình Ngọc Động, đình Nguyễn Xá, đình Hòa Xá, đình Thượng, Nhì, Ba Vân Đình, đình Thanh Ấm, Quán Lục Sĩ, đình Thượng Lâm,... Đó là lý do cho thấy vì sao Vua Đinh Tiên Hoàng được chọn làm vị thần chủ ở đền Bách Linh.

Theo các cụ cao niên thôn Dư Xá Thượng kể thì xưa kia Đinh Tiên Hoàng xuất quân từ Hoa Lư (Ninh Bình) đi qua các địa danh: chợ Vài, Ải, An Phú,… rồi mới ra tới Dư Xá Thượng tuyển quân trước khi đánh dẹp các sứ quân Đỗ Cảnh Thạc và Nguyễn Siêu. Khi tới thôn Dư Xá Thượng Vua đã đóng quân tại vị trí đền Bách Linh ngày nay và cho xây dựng đền. Mỗi năm tại ngôi đền này Vua đều tổ chức cầu mưa giúp dân làng chống hạn.